Google прави промени, след като Gemini AI изобрази цветнокожи хора неточно
Google каза в четвъртък, че временно ще ограничи възможността за създаване на изображения на хора с инструмента си за изкуствен интелект Gemini, след като създаде илюстрации с исторически неточности .
Паузата беше обявена в публикация на X, след като компанията призна проблемите в изявление предния ден, като написа: „Работим незабавно да подобрим тези видове изображения. Генерирането на AI изображения на Gemini наистина генерира широк кръг от хора. И това като цяло е нещо добро, защото хората по света го използват. Но тук липсва целта.“
Google обяви своя модел с изкуствен интелект от „следващо поколение“, Gemini 1.5, миналата седмица, рекламирайки го като най-способния досега. Google е една от многото технологични компании, които трескаво се състезават да разработят най-добрите генеративни AI системи, които могат да създават текст, изображения и видео от прости подкани.
След стартирането си Gemini привлече вниманието на някои специалисти и технолози, включително мнозина отдясно, които бяха критични към усилията да се направи AI по-приобщаващ, с някои отправящи обвинения, че AI на Google е отличен пример за „събуден AI“.
Най-широко забелязаните неточности включват вмъкване на цветнокожи хора на места, където исторически не биха се появили. Например The Verge съобщи, че искането на Gemini да създаде илюстрация на немски войник от 1943 г. е довело до генерирани от AI рисунки на небели хора в нацистки униформи. Близнаци също създава образи на някои небели бащи-основатели и американски сенатори от 1800 г., когато в действителност всички те са били бели мъже.
Расово разнообразното изображение на Gemini идва на фона на дългогодишни опасения относно расовите пристрастия в моделите на AI, особено липсата на представяне на малцинствата и цветнокожите. Такива пристрастия могат директно да навредят на хората, които разчитат на AI алгоритми, като например в здравни заведения, където AI инструментите могат да повлияят на резултатите от здравните грижи за стотици милиони пациенти.
Google не е единствената голяма технологична компания, която се занимава с големи проблеми с водещи инструменти за изкуствен интелект тази седмица – OpenAI, компанията зад текстовия генератор за изкуствен интелект ChatGPT, каза в сряда, че е разрешила проблем, причиняващ „неочаквани отговори” от ChatGPT. Потребителите започнаха да забелязват във вторник, че ChatGPT работи неправилно, бълвайки безсмислени изречения вместо обичайния си изход.
„LLM генерират отговори чрез произволно вземане на проби от думи, базирани отчасти на вероятности. Техният „език“ се състои от числа, които се съпоставят с токени“, пише OpenAI в актуализация на състоянието на уебсайта си. „В този случай грешката беше в стъпката, в която моделът избира тези числа. Подобно на загуба в превода, моделът избра малко погрешни числа, което доведе до поредици от думи, които нямаха смисъл.“
Кат Тенбардж
